Mind the Heads: Topological Representation Alignment for Multimodal LLMs
留心注意力头：多模态LLM的拓扑表示对齐
🧭 多模态LLM · 头对齐与拓扑表示
University of Modena and Reggio Emilia · University of Pisa · AMD Silo AI
提出头级表示对齐 HeRA，通过拓扑邻居保持提升多模态LLM视觉任务并抑制幻觉
📌 工作参考价值（4 点）
- 多模态特征对齐可借鉴头级别选择：不在整个层做对齐，而是针对特定注意力头，用拓扑保持目标（如 MKNN 对比代理）约束局部邻域结构，适用于电商图文匹配、商品视频理解等场景。
- 反直觉发现：对齐最差的头收益最大，暗示在初始跨模态鸿沟大的位置施加约束更有效，可在自有多模态模型中选择对齐差的位置优先优化。
- HeRA 可作为正则化器，抑制模型过度依赖语言先验而忽视视觉输入，对需要精准视觉识别的任务（如商品属性提取、广告素材合规审核）有帮助。
- 训练中可引入 MKNN 度量的可微分代理，以对比损失形式端到端优化，工程实现成本低，可直接插入现有 MLLM 训练流程。